You Only Pass Once: Answering and Abstaining Together in a Single Forward Pass of a Frozen Language Model
YOPO:单次前向同时完成回答与弃答的冻结语言模型系统
🧭 LLM 推理 · 激活 steering / 弃答门控 ★ 深度解读
Georgia Institute of Technology · Columbia University · University of Wisconsin–Madison · University of Texas at Austin
在残差流同一前向里融合条件 steering 与零样本充分性门控,用无标签重建消除写读干扰
📌 工作参考价值(4 点)
- 在 RAG / 问答式推荐 / Agent 工具调用里,把“不确定就弃答或转人工”做成残差流上的零样本方向 d(sufficient 与 insufficient 的 diff-of-means),不要训练判别器;跨域阈值用目标域无标签样本的中位数校准,迁移稳定性更好。
- 如果要在同一前向 pass 里同时做生成/改写和不确定性门控,注意 write 会污染 read 信号。可以学一个轻量重建 map M:只做 steered→clean 的 MSE 重建,不需要任何弃答标签,就能恢复大部分 AUROC;小模型上尤其划算。
- 算力允许时,one-pass 里加监督 BCE boost 能在 in-domain 超过 two-pass clean read;但若业务有明显 domain shift 或小模型,优先用 label-free repair,避免 trained abstention 的跨域崩塌。
- 若用 steering / LoRA 做 query 改写、item 表示增强,注意训练目标会以 write 自由度换来跨域泛化损失:read-only < constrained write < free write。弃答/不确定性信号应放在 read head,不要写进同一个 write vector。